Vấn đề với Hành động Mù quáng
Khi giải các bài toán logic phức tạp hoặc truy xuất nhiều thông tin, việc buộc AI phải quyết định Hành động ngay lập tức có thể dẫn đến những sai lầm nghiêm trọng.
Hãy nghĩ xem con người giải một trò xếp hình như thế nào:
- Họ không chỉ nhặt một mảnh ghép ngẫu nhiên rồi nhét vào bảng.
- Họ phác thảo chiến lược trong đầu hoặc thành lời: "Đầu tiên, tôi cần tìm các mảnh ghép có cạnh phẳng để làm viền, sau đó tôi sẽ xem mảnh màu xanh này có vừa không."
Tương tự, nếu chúng ta yêu cầu AI chỉ xuất ra một Hành động—bỏ qua giai đoạn lập luận—thì đó là "hành động mù quáng". AI thường sẽ đoán, ảo giác, hoặc chọn sai công cụ hoàn toàn vì chưa xác định được các điều kiện tiên quyết để trả lời truy vấn.
Suy nghĩ thành lời
Các mô hình ngôn ngữ xây dựng logic từng token một. Bằng cách buộc AI "suy nghĩ thành lời" (tạo văn bản phân tích vấn đề) trước khi nó chọn một hành động, chúng ta cung cấp cho nó không gian làm việc cần thiết để đi đến kết luận logic đúng đắn.
